Serverless API
Serverless API 为开发者提供一个便捷的方式来调用不同种类的模型,无需关心底层的硬件或管理服务器。此 API 支持通过简单的 HTTP 请求在 Gitee AI 的共享基础设施上进行快速推理。
体验 Serverless API
您可以在 Serverless API 体验页面,浏览我们精选的模型,免费体验不同模型的生成效果,也可调用 API。
目前我们支持的模型包括不限于以下几个,排序按照上线时间倒序:
加载 Serverless API 服务列表...
更多的模型 API 服务逐步添加中...
购买 Serverless API
购买流程:
- 选择模型: 访问 Serverless API 体验,挑选一个适合你需求的模型。如果您不确定选择,可以体验模型挂件,以了解模型的推理效果。在体验模型挂件时,可以选择该不同的 API 以及在不同算力上的效果。
- 购买资源包:体验完模型挂件后,可以直接点击右下方“购买”按钮购买模型对应算力的资源包,选择归属于自己或组织,选择购买的金额。
- 创建订单并付款:完成付款后,在工作台界面-Serverless API 可调用已购 API。
计费说明:
- 计费规则:按调用次数计费,购买了同一个资源包多次,并且调用时访问令牌未绑定具体资源包时,将按购买先后顺序依次扣费
- 退订规则:使用中的资源不支持在线退订,如有需要请联系我们
本地调用 API 进行推理
如果您想要通过 Serverless API 进行模型推理,请遵循以下步骤:
- 创建访问令牌:您 需要登录账号,在工作台-账户设置中,找到“访问令牌”,创建一个授权访问所选资源的令牌;如果您希望为某个“访问令牌”绑定某个资源包,也可以创建一个支持访问“部分资源”的“访问令牌”。
- 调用 Serverless API:在工作台 Serverless API 列表中,选择购买的资源包点击“模型调用”,点击某个模型的“调用”,选择刚创建访问令牌,先通过挂件进行测试
- 本地调用 API 进行推理:通过挂件测试正常,可以选择 “API” 形式调用,选择对应的编程语言或者工具,例如 Python,勾选 “添加令牌”,即可拷贝对应的代码在本地进行执行。我们暂时只给出了 Python/JavaScript/cURL 的示例,其他语言可以参考这些示例进行编写。